Asal usul Yahudi tradisinya bertarikh sekitar alaf kedua SME kepada patriakh, Abraham, Isaac dan Jacob. Stala Merneptah, bertarikh 1200 SME, adalah salah satu dari rekod arkeologikan terawal dari orang Yahudi di Tanah Israel, dimana agama Yahudi, satu agama monotheisme dibangunkan. Menurut pada akaun Biblikal, orang Yahudi menikmati tempoh keazaman-sendiri pertama dibawah kehakiman Biblikal dari Othniel melalui Samson, kemudian pada (c. 1000an SME), Raja David mendirikan Baitulmuqaddis sebagai ibu kota dari Negeri Kerajaan Kesatuan Israel dan Judah (Kesatuan Monarki) dan dari sana memerintahnya Duabelas Suku Israel.

Pada 970 SME, anak lelaki David, Solomon menjadi raja Israel. [12] Kurang dari sedekad, Solomon mula membina Kuil Suci yang dikenali sebagai Kuil Pertama. Selepas kematian Solomon (c. 930 SME), sepuluh suku utara berpisah membentuk Kerajaan Israel. PAda 722 SME orang Assyria menakluk Kerajaan Israel dan mengusir Yahudinya yang bermulanya diaspora Yahudi.

Tempoh Kuil Pertama berakhir sekitar 586 SME setelah orang Babylonia menakluk Tanah Israel dan memusnahkan Kuil Yahudi. Pada 538 SME, selepas lima puluh tahun dari tawanan Babylonia, Raja Parsi Cyrus si Agung membenarkan orang Yahudi kembali membina semula Baitulmuqaddis dan kuil suci. Pembinaan Kuil Kedua, telah siap pada 516 SME semasa pemerintahan Darius si Agung selama tujuh puluh tahun selepas kemusnahan Kuil Pertama. [13][14] Apabila Iskandar Agung menakluk Empayar Parsi, Tanah Israel jatuh dibawah kawalan Greek Hellenistik, akhirnya jatuh kepada dinasti Ptolemaik yang hilangnya kepada Seleucids. Cubaan Seleucid untuk tebar semula Baitulmuqaddis sebagai polis dihelleniskan datang kepada utama pada 168 SME dengan kejayaan pemberontakan Maccabean dari Mattathias si Paderi Tinggi dan anak lelakinya terhadap Antiochus Epiphanes, dan pengasasan mereka dari Kerajaan Hasmonean pada 152 SME dengan Baitulmuqaddis sekali lagi sebagai ibukotanya. [15] Kerajaan Hasmonean bertahan selama seratus tahun kemudian setelah Rom menjadi lebih kuat ia melantik Herod sebagai raja pelanggan Yahudi. Kerajaan Herod juga bertahan selama seratus tahun. Kekalahan oleh orang Yahudi pada pemberontakan Pertama pada 70 EL, yang pertama dari Perang Yahudi-Rom dan Pemberontakan Bar Kochba pada 135 EL yang penting menyumbang kepada bilangan dan geografi dan diaspora, laksana bilangan penting populasi Yahudi dari Tanah Israel telah diusir dan dijual kepada perhambaan sepanjang Empayar Rom. Sejak itu, orang Yahudi telah hidup di hampir setiap negara di dunia, terutamnya di Eropah dan Timur Tengah lebih unggul, terselamat dari diskriminasi, penindasan, kemiskinan, dan malah pembunuhan kaum (lihat:anti-Semitisme, Holokus), dengan tempoh kadangkala dari kebudayaan, ekonomik, dan kemajuan individu di berbagai lokasi (seperti Sepanyol, Portugal, Jerman, Poland dan Amerika Syarikat).

Hingga lewat abad ke-18, istilah Yahudi dan penganut Yahudi telah praktikalnya sinonim, dan agama Yahudi adalah ikatan prima dari orang Yahudi tanpa mengira darjat keanutan. Berikutan Zaman Enlightenment dan saudara Yahudinya Haskalah, satu transformasi beransur berlaku semasa dimana ramai Yahudi datang dilihat menjadi satu ahli dari bangsa Yahudi sebagaimana terpisah dari menganuti kepada keimanan Yahudi.

Kata nama Ibrani "Yehudi" (plural Yehudim) asalnya dirujuk kepada suku Judah. [16] Kemudian, apabila Kerajaan Israel Utara berpisah dari Kerajaan Israel Selatan, Kerajaan Israel Selatan mula merujuk dirinya dengan nama dari suku pradominannya, atau sebagai Kerajaan Judah. Istilah ini asalnya dirujuk kepada orang dari kerajaan selatan, walaupun istilah B'nei Yisrael (Bani Israel) telah masih digunakan untuk kedua-dua kumpulan. Selepas orang Assyria menakluk kerajaan utara meninggalkan kerajaan selatan sebagai satu-satunya negeri Bani Israel, kata Yehudim beransur datang merujuk pada orang dari keimanan Yahudi sebagai seluruh, berbanding dari yang spesifiknya dari suku atau Kerajaan Judah. Kata Inggeris Jew unggulnya dipemerolehan dari Yehudi. kegunaan pertamanya dalam Injil untuk merujuk kepada orang Yahudi sebagai seluruh berada dalam Kitab Esther.